Proses rundingan berlangsung di mana pihak Ali diwakili oleh Abu Musa Al-Asya'ari dan Amr al-Aas bagi pihak Muawiyah. Abu Musa Al-Asya'ari dikatakan bukan pilihan pertama Ali yang mahu melantik Abdullah bin Abbas atau Al-Ashtar sebagai wakil. Akan tetapi Abu Musa digemari oleh ramai orang kerana dia seorang yang mahukan perdamaian. Abu Musa dikatakan tidak dapat menyaingi kepintaran Amru al-Aas. Ali pulang ke Kufah sementara Muawiyah ke Damsyik sementara menanti perundingan yang akan diadakan dalam beberapa bulan. Muawiyah terus memerintah Syria dan Ali pula bagi baki Empayar Islam.

Perundingan dijalankan pada bulan Ramadan 37 (Februari 658). Pengadil untuk perundingan tiba di Dumat-al-Jondel. Ramai di kalangan ketua kaum dari Mekah, Madinah, Iraq dan Syria juga datang untuk menyaksikan perundingan yang akan memutuskan nasib Islam.

Abu Musa ditemani Abdullah bin Abbas yang menasihatinya berwaspada akan helah Amr. Setibanya Abu Musa di Duma, Amr menyambutnya dengan penuh hormat. Mereka berdua berbincang tanpa kehadiran orang lain. Amr tahu akan kelemahan Abu Musa dan melayannya dengan penuh hormat dan cuba mempengaruhinya sehingga Abu Musa mengaku Uthman dibunuh dengan kejam. Amr kemudian bertanya kepada Abu Musa kenapa Muawiyah yang mahu menuntut bela dan saudara kepada Uthman serta mempunyai kebolehan memerintah tidak boleh dilantik sebagai pengganti. Abu Musa menjawab pengganti tidak boleh ditentukan berdasarkan itu sahaja tetapi mengambil kira supaya tidak berlaku pemberontakan dan perang saudara. Amr seterusnya mengajak Abu Musa untuk menolak kedua-dua Ali dan Muawiyah dan membiarkan orang mukmin memilih khalifah. Ini merupakan penyelesaian yang paling mudah dan selamat. Abu Musa bersetuju dan mereka bersedia untuk membuat pengumuman. Satu tribunal didirikan daripada kalangan pengadil yang akan mengisytiharkan keputusan kepada umum.

Abu Musa berharap Amr membuat pengumuman dahulu tetapi Amr memberi laluan kepada Abu Musa atas alasan memberi hormat kepada orang Ali. Abu Musa naik dan bercakap kepada orang awam mengatakan mereka berdua bersetuju tiada jalan lain untuk keamanan selain daripada kedua-dua Ali dan Muawiyah turun dan membiarkan orang mukmin melantik khalifah yang mereka pilih. Setibanya giliran Amr membuat pengumuman, dia bertindak sebaliknya dengan mengiktiraf Muawiyah sebagai pemimpin dan sebagai tuntutan bela ka atas kematian Uthman.